747. Орлов А.И. Прогностическая сила как показатель качества алгоритма диагностики. - В сб.: Статистические методы оценивания и проверки гипотез: межвуз. сб. науч. тр. Вып.23. – Пермь: Перм. гос. нац. иссл. ун-т, 2011. – С.104-116.

__________СТАТИСТИЧЕСКИЕ МЕТОДЫ ОЦЕНКИ И ПРОВЕРКИ ГИПОТЕЗ_________
2011			Пермский государственный университет				Вып.23

УДК 519.2
Прогностическая сила как показатель качества алгоритма диагностики

А.И. Орлов 

Московский государственный технический университет им. Н.Э. Баумана, Институт высоких статистических технологий и эконометрики, Россия, Москва;
prof-orlov@mail.ru; http://orlovs.pp.ru; +7(495)6994282; 123104, Москва, Сытинский пер., д.7/14, кв.14.

Аннотация. Показана нецелесообразность использования вероятности правильной диагностики в качестве показателя качества алгоритма диагностики. Предложен и изучен новый показатель – прогностическая сила, основанная на расстоянии Маханалобиса между классами. Найдено асимптотическое распределение прогностической силы, указан способ проверки адекватности ее применения. В задаче проверки двух простых гипотез установлена связь прогностической силы с расстоянием Хеллингера.

Ключевые слова: алгоритм диагностики, показатель качества, вероятность правильной диагностики, расстояние Махаланобиса, прогностическая сила, предельные теоремы, проверка гипотез, расстояние Хеллингера.

	Математические методы классификации [1] – часть прикладной статистики [2]. В одной и той же задаче классификации можно применять различные алгоритмы. Чтобы обоснованно выбрать алгоритм, необходимо уметь оценивать качество его работы. 
	В триаде «построение классификации» – «изучение классификации» - «использование классификации» рассмотрим последнюю составляющую. Её разные авторы называют дискриминацией (дискриминантным анализом), диагностикой, распознаванием образов с учителем, автоматической классификацией с учителем, статистической классификацией… В соответствии с [3] эту научную область будем называть диагностикой. Для простоты обсуждения ограничимся случаем двух областей. Примеры в терминах прикладных исследований: дефектные и годные единицы продукции, налаженные и разлаженные состояния технологического процесса, пациенты с инфарктом миокарда и без него, пробы с допустимым и недопустимым содержанием примесей и т.д.
	Часто используют такой показатель качества алгоритма диагностики, как «вероятность (или доля) правильной классификации (диагностики)» [4, 5] – чем этот показатель больше, тем алгоритм лучше. Цель статьи – показать нецелесообразность повсеместного применения этого показателя и обосновать другой – «прогностическую силу», найденную путем пересчета на модель линейного дискриминантного анализа.

Вероятностно-статистическая модель диагностики 

	Пусть классифицируемые объекты описываются переменными x, лежащими в некотором пространстве X, два класса – это два распределения вероятностей с плотностями f(x) и g(x), , соответственно (если X дискретно, то под f(x) и g(x) понимаем не плотности, а вероятности попадания в точку x).
	Типичная схема разработки конкретного математического метода диагностики такова. С помощью специалистов соответствующей прикладной области составляют две обучающие выборки – объема m0 из первого класса и объема n0 из второго класса. На их основе определяют решающее правило , ставящее в соответствие результату наблюдения  номер класса, к которому его следует отнести. Качество работы алгоритма проверяют по контрольной выборке, состоящей из m элементов первого класса и n элементов второго. Результаты проверки удобно записать в виде табл.1.

Таблица 1
Результаты работы алгоритма диагностики
	Всего	Отнесено к первому классу	Отнесено ко второму классу	
Элементы первого класса	m	a	b	
Элементы второго класса	n	c	d	

	Ясно, что о качестве алгоритма диагностики, т.е. решающего правила A, надо судить на основе данных, приведенных в табл.1. Естественно использовать 
	 - долю правильной диагностики в первом классе;
	 - долю правильной диагностики во втором классе.
	Доля правильной диагностики  равна 
,
где  - априорная доля первого класса,  - априорная доля второго класса. Очевидно, . В вероятностной модели речь идет об априорных вероятностях классов. Удобно и в статистической постановке (табл.1), и в вероятностной использовать единый термин «доля», поскольку это не приводит к недоразумениям.
	Рассмотрим сначала случай, когда , т.е. f и g можно считать известными. При применении теории статистических решений к задачам диагностики [5] считаются известными также априорные вероятности классов и потери C(j|i) от ошибочной диагностики – от отнесения объекта i-го класса к классу с номером j. Доказано (при любом числе классов), что в случае, когда все C(j|i) равны между собой, минимизация суммарных потерь эквивалентна максимизации вероятности правильной диагностики [5], состоятельной оценкой которой служит . Видимо, этот факт, вместе с вычислительной простотой и наглядностью , является причиной широкого использования доли (вероятности) правильной классификации  как показателя качества алгоритма диагностики. 
	Оптимальное решающее правило при совпадающих потерях C(1|2) = C(2|1) имеет вид: если
,		(1)
то отнести x к первому классу, в противном случае – ко второму; здесь  и  - априорные вероятности первого и второго классов соответственно. Лемма Неймана-Пирсона, исходя из другой оптимизационной постановки (из минимизации ошибки второго рода при ограничении на уровень значимости), также дает правило, основанное на отношении плотностей вероятностей. В большинстве прикладных задач плотности вероятности неизвестны. Однако их при  можно заменить состоятельными оценками, например, непараметрическими  ядерными оценками плотности [6], и получить универсальное асимптотически оптимальное правило диагностики, с которым необходимо сравнивать все другие правила диагностики [1]. Выбор других правил диагностики для решения конкретных прикладных задач должен быть обоснован на основе соответствующих задаче критериев, например, быстродействия алгоритмов и объемов имеющейся информации [7]. 
	Обратим внимание, что в случае, когда априорная вероятность одного из классов существенно больше априорной вероятности другого, правило (1) может любое наблюдение относить к классу с наибольшей априорной вероятностью.
	Разберем ситуацию подробнее. Пусть имеется некоторый алгоритм диагностики на два класса с долями правильной диагностики  - в первом классе и  - во втором. Сравним его с двумя тривиальными алгоритмами диагностики. Первый тривиальный алгоритм относит все классифицируемые объекты к первому классу, для него  = 1 и  = 0, следовательно,  = . Второй тривиальный алгоритм относит все классифицируемые объекты ко второму классу, для него  = 0 и  = 1, следовательно,  = . 
	В качестве показателя качества алгоритма диагностики будем использовать долю правильной диагностики . Когда первый тривиальный алгоритм лучше исходного? Когда , т.е. 

 (с учетом того, что ). Когда второй тривиальный алгоритм лучше исходного? Когда , т.е. 
.
Таким образом, для любого заданного алгоритма диагностики существуют границы d(1) и d(2) для доли первого класса  в объединенной контрольной выборке такие, что при < d(1) рассматриваемый алгоритм хуже второго тривиального алгоритма, а при  > d(2) он хуже первого тривиального алгоритма.  
	Разобранная ситуация встречается на практике. В конкретной прикладной медицинской задаче величина  оказалась больше для тривиального прогноза, согласно которому у всех больных течение заболевания (инфаркта миокарда) будет благоприятно. Тривиальный прогноз сравнивался с алгоритмом выделения больных с прогнозируемым тяжелым течением заболевания. Он был разработан группой математиков и кардиологов под руководством И.М. Гельфанда. Применение этого алгоритма с медицинской точки зрения вполне оправдано [8 - 10]. Итак, по доле правильной классификации  алгоритм группы И.М. Гельфанда оказался хуже тривиального - объявить всех больных легкими, т.е. не требующими специального наблюдения. Этот вывод очевидно нелеп. И причина появления нелепости вполне понятна. Хотя доля тяжелых больных невелика, но смертельные исходы сосредоточены именно в этой группе больных. Поэтому целесообразна гипердиагностика - рациональнее часть легких больных объявить тяжелыми, чем сделать ошибку в противоположную сторону.
	Поэтому мы полагаем, что использовать в качестве показателя качества алгоритма диагностики долю правильной диагностики  нецелесообразно.
	Работы группы И.М. Гельфанда [8 - 10] показывают также, что теория статистических решений не может быть основой для выбора показателя качества диагностики. Применение этой теории требует знания потерь от ошибочной диагностики, а в большинстве научно-технических и экономических задач определить потери, как уже отмечалось, сложно. В частности, из-за необходимости оценивать человеческую жизнь в денежных единицах. По этическим соображениям это, на наш взгляд, недопустимо. Сказанное не означает отрицания пользы страхования, но, очевидно, страховые выплаты следует рассматривать лишь как способ первоначального смягчения потерь от утраты близких. Следовательно, применение теории статистических решений в рассматриваемой постановке вряд ли возможно, поскольку оценить количественно потери от смерти больного нельзя по этическим соображениям. 

Прогностическая сила как показатель качества классификации

	С целью поиска приемлемого показателя качества диагностики рассмотрим восходящую к Р. Фишеру [11] широко известную параметрическую вероятностную модель (модель линейного дискриминантного анализа), в которой X – конечномерное пространство, f(x) и g(x) – многомерные нормальные плотности с математическими ожиданиями m1 и m2 соответственно и совпадающими ковариационными матрицами . Тогда при произвольных априорных вероятностях и потерях оптимальное решающее правило определяется плоскостью 
,
где константа C зависит от априорных вероятностей классов здесь  и , а также от потерь C(1|2) и C(2|1) [12, с.186]. Основной параметр модели – расстояние Махаланобиса между классами 
. 
(Величину d2 нельзя называть «расстоянием», как это делается в [12, с.187], поскольку для d2 не выполнено неравенство треугольника. Всем аксиомам, задающим метрику, удовлетворяет d).
	Через d и C/d выражаются вероятности правильной диагностики  и , являющиеся пределами при  ранее введенных долей  и . Если X – случайная величина с описанной выше плотностью f(x), то случайная величина H(X) имеет нормальное распределение с математическим ожиданием  и дисперсией d2. Аналогично для случайной величины Y с плотностью g(x) случайная величина H(Y) имеет нормальное распределение с математическим ожиданием  и дисперсией d2 [12, с.187]. Поэтому
,		(2)
где (x) - функция нормального распределения с математическим ожиданием 0 и дисперсией 1. Из (2) вытекает, что при любых потерях C(1|2) и C(2|1), априорных вероятностях  и  при использовании оптимального решающего правила величина

постоянна и равна d, где  - функция , обратная к (x). Следовательно, именно расстояние Махаланобиса d следует рассматривать как меру различия между классами, заданными плотностями рассматриваемого вида. Чтобы выразить меру различия в тех же единицах, что и вероятности правильной диагностики, введем «прогностическую силу»
,
при C = 0 равную совпадающим значениям правильной диагностики  и  из (2).
	Мы предлагаем в качестве показателя качества произвольного алгоритма диагностики использовать величину
 -		(3)
- эмпирическую прогностическую силу, где 
,		(4)
а доли  и  правильной диагностики в классах определены по данным табл.1. Таким образом, вместо взвешенного по априорным долям классов среднего арифметического  долей правильной диагностики в классах  и  предлагаем использовать их среднее по Колмогорову с весовой функцией . 
	Если классы описываются выборками из многомерных нормальных совокупностей с одинаковыми матрицами ковариаций, а для классификации применяется классический линейный дискриминантный анализ Р.Фишера [11, 12], то величина d* представляет собой состоятельную статистическую оценку расстояния Махаланобиса между двумя рассматриваемыми совокупностями, причем независимо от порогового значения, определяющего конкретное решающее правило. В общем случае показатель d* вводится как эвристический. 
	Пример 1. Если κ = 0,90 и λ = 0,80, то Φ-1(κ) = 1,28 и Φ-1(λ) = 0,84, откуда d* = 2,12 и эмпирическая прогностическая сила  = Φ-1(1,06) = 0,86. При этом доля правильной диагностики μ может принимать любые значения между 0,80 и 0,90, в зависимости от долей классов в объединенной совокупности .

Асимптотические свойства выборочной прогностической силы

	С какой точностью можно определить прогностическую силу по выборочным данным? Другими словами, каково распределение ? Рассмотрим сначала случай, когда решающее правило не зависит от элементов контрольной выборки. Тогда случайные величины  и  независимы и имеют биномиальные распределения с параметрами  и  соответственно. 
	Пусть алгоритм диагностики применялся к совокупности, состоящей из т объектов первого класса и n объектов второго класса.
	Теорема 1. Пусть т, п. Тогда для всех х
, 		(5)
где  - истинная «прогностическая сила» алгоритма диагностики (соответствующая  и );  - ее эмпирическая оценка, полученная по формулам (3) и (4), 
.		(6)
Здесь  - плотность стандартного нормального распределения вероятностей с математическим ожиданием 0 и дисперсией 1.
	Для доказательства теоремы 1 используются следующие факты и методы (описанные, например, в [2, гл.4]):
	(1) асимптотическая нормальность вектора , вытекающая из теоремы Муавра-Лапласа;
	(2) результаты о наследуемости сходимости, в соответствии с которыми, в частности, асимптотическое распределение  при  совпадает с распределением, которое получится, если в формулах (3) – (4) пронормированный и отцентрированный вектор  заменить на соответствующий нормально распределенный вектор;
	(3) метод линеаризации функции в малой окрестности точки 
	Из теоремы 1 вытекает способ определения нижней  и верхней  доверительных границ для прогностической силы . А именно, доверительной вероятности  соответствуют асимптотические (при ) двусторонние доверительные границы
.	(7)
	Пример 2. В условиях примера 1 при m = n = 100 найдем асимптотическое среднее квадратическое отклонение А(0,90; 0,80). Поскольку φ(Φ-1(κ)) = φ(1,28) = 0,176, φ(Φ-1(λ)) = φ(0,84) = 0,280, φ(d*/2) = φ(1,06) = 0,227, то подставляя в выражение для А2 численные значения, получаем, что
.
.
При m = n = 100 имеем А(0,90; 0,80) = 0,0252. При доверительной вероятности γ = 0,95 имеем u(0,95) = Φ-1(0,975) = 1,96, а потому нижняя доверительная граница для прогностической силы  есть  = 0,86 – 1,96  0,0252 = 0,81, а верхняя доверительная граница такова:  = 0,86 + 1,96  0,0252 = 0,91. Аналогичный расчет при m = n = 1000 дает  = 0,845,  = 0,875.
	Иногда отступают от описанной выше схемы и в качестве контрольной используют обучающую выборку (обычно это связано с трудоемкостью получения данных). Тогда доли правильной диагностики  и  зависимы как случайные величины. Однако в случае, когда решающее правило основано на использовании дискриминантной поверхности,  и  асимптотически (при ) независимы [13], что позволяет использовать формулы (5) – (7) и в этом случае.

Проверка возможности применения прогностической силы

	В ряде прикладных задач диагностики вычисляют значение некоторого прогностического индекса (фактора, переменной) у и решение принимают на основе его сравнении с некоторым заданным порогом с. Объект относят к первому классу, если у < с, ко второму, если у > с. Прогностический индекс – это обычно линейная функция от характеристик рассматриваемых объектов. Другими словами, от координат векторов, описывающих объекты.
	Возьмем два значения порога с1 и c2. Если классы описываются выборками из многомерных нормальных совокупностей с одинаковыми матрицами ковариаций, а для построения прогностического индекса применяется классический линейный дискриминантный анализ Р.Фишера, другими словами, если пересчет на модель линейного дискриминантного анализа обоснован, то, как можно показать, «прогностические силы» для обоих правил совпадают: . Выполнение этого равенства можно проверить как статистическую гипотезу. Если эта гипотеза принимается, то целесообразность использования прогностической силы подтверждается, значение  есть основания рассматривать как объективную оценку качества алгоритма диагностики. Если же рассматриваемая гипотеза отклоняется, т.е. значения  и  сильно различаются, то пересчет на модель линейного дискриминантного анализа и использование расстояния Махаланобиса для измерения различия классов и прогностической силы как показателя качества диагностики некорректны.
	Укажем способ проверки, т.е. опишем соответствующий критерий проверки статистической гипотезы. Пусть  - доля объектов первого класса, для которых y < c1, а  - доля объектов первого класса, для которых c1 < y < c2. Аналогично пусть  - доля объектов второго класса, для которых c1 < y < c2, а  - доля объектов второго класса, для которых у > с2. Тогда можно рассчитать две оценки одного и того же расстояния Махаланобиса. Они имеют вид:
.
	Теорема 2. Если истинные прогностические силы двух правил диагностики совпадают, т.е. , то при  при всех х
,
где
,
.
	Из теоремы 2 вытекает метод проверки рассматриваемой гипотезы: при выполнении неравенства

она принимается на уровне значимости, асимптотически равном , в противном случае - отвергается.
	Пример 3. Пусть данные примеров 1 и 2 соответствуют порогу с1. Пусть порогу с2 соответствуют  = 0,95 и  = 0,70. Тогда в обозначениях теоремы 2  = 0,90,  = 0,05,  = 0,10,  = 0,70. Далее d*(c1) = 2,12 (пример 1), d*(c2) = 2,17,  = 2,22,  = 0,89. Гипотеза  о совпадении прогностических сил, соответствующих двум порогам, принимается на уровне значимости  = 0,05 тогда и только тогда, когда 
,
т.е. когда

.
Так, гипотеза принимается при m = n = 1000 и отвергается при m = n = 5000. 

Асимптотика сближающихся гипотез

	Для выбора наилучшего алгоритма диагностики используют, кроме «вероятности правильной диагностики» , подход, основанный на векторной оптимизации
.
При этом вводят ограничения на вероятности ошибочной классификации. Классическим примером является задача
,		(8)
решение которой дается леммой Неймана-Пирсона. Дальнейшие результаты в этом направлении получены Л.Н. Большевым [14], Ю. Круописом [15] и применительно к диагностике А.С. Фоминым [16]. Однако во всех этих постановках используются априорные константы, задающие ограничения, типа  в (8). Вопрос прикладника: «Откуда берется уровень значимости?» [17] вполне оправдан. Поэтому обсудим возможность переноса на общую задачу проверки двух простых гипотез  подхода, развитого выше в случае задачи диагностики.
	Пусть  - выборка из распределения с плотностью f(x). Рассмотрим согласно [18] задачу проверки двух простых гипотез

(отметим, что понятия нулевой и альтернативной гипотез в [18] не используются). Как показано в [18], оптимальное решающее правило имеет вид: если 
,
то принимается гипотеза H1, если же , то принимается гипотеза H2, где D – априорная константа, зависящая от величин  типа C и d в формуле (2) и  в формуле (8).
	Рассмотрим асимптотику сближающихся гипотез [18]: плотность f(x) входит в некоторое параметрическое семейство, описываемое одномерным параметром , удовлетворяющее введенным в [18] условиям регулярности (RR),   
,
где величины  и v считаются фиксированными. Пусть, как и ранее,  - частота принятия гипотезы H1, когда она верна, и  - частота принятия гипотезы H2, когда она верна.
	Воспользуемся асимптотической нормальностью Y. Согласно [18] при 
,		(9)
где  - информация Фишера. Из формулы (9) следует, что 
.
Как и в задаче диагностики, величина d* (асимптотически) не зависит от априорной константы D. (В этом абзаце и далее предполагаем, что проведено две серии опытов: m опытов, когда верна гипотеза H1, и n опытов, когда верна гипотеза H2, и именно по этим двум сериям, как и в начале статьи, подсчитаны частоты  и ; для изучения  и  достаточно брать вероятности относительно соответствующих вероятностных мер [18]).
	Величина d* характеризует саму постановку задачи проверки гипотез, т.е. различие между f1 и f2. Действительно, из известной [18] связи между информацией Фишера и расстоянием Хеллингера следует, что при 
.
«Прогностическая сила» , заданная формулой (3), которую в рассматриваемом контексте лучше назвать «разрешающей силой», дополняет до 1 совпадающие между собой значения ошибок первого и второго рода асимптотически минимаксного критерия [18].
	Таким образом, при наличии нескольких критериев в одной задаче проверки гипотез мы предлагаем использовать «разрешающую силу»  как показатель качества статистического критерия. Теорема 1 дает асимптотическое распределение этого показателя. Теорема 2 позволяет выявлять критерии, «поведение» которых отличается от «поведения» оптимальных критериев (типа Неймана-Пирсона). Роль порогов с1 и c2 играют уровни значимости  и .

Библиографический список

1. Орлов А.И. О развитии математических методов теории классификации // Заводская лаборатория. Диагностика материалов. - 2009. - Т.75. № 7. - С.51-63.
2. Орлов А.И. Прикладная статистика: учеб. для вузов. - М.: Экзамен, 2006. - 672 с.
3. Орлов А.И. Математические методы исследования и диагностика материалов // Заводская лаборатория. Диагностика материалов. - 2003. - Т.69. № 3. - С.53-64.
4. Алгоритмы и программы восстановления зависимостей / Под ред. В.Я. Вапника. – М.: Наука, 1984. – 816 с.
5. Горелик А.Л., Скрипкин В.А. Методы распознавания: учеб. для вузов. – М.: Высшая школа, 1984. – 208 с.
6. Орлов А.И. Ядерные оценки плотности в пространствах произвольной природы // Статистические методы оценивания и проверки гипотез. Межвузовский сборник научных трудов. - Пермь: Пермский госуниверситет, 1996. - С.68-75.
7. Толчеев В.О. Модифицированный и обобщенный метод ближайшего соседа для классификации библиографических текстовых документов // Заводская лаборатория. Диагностика материалов. - 2009. - Т.75. № 7. - С.63-70.
8. Алексеевская М.А., Гельфанд И.М., Губерман Ш.А., Мартынов И.В., Ротвайн И.М., Саблин В.М. Прогнозирование исхода мелкоочагового инфаркта миокарда с помощью программы узнавания // Кардиология. – 1977. – Т.17, № 7. – С.26-71.
9. Гельфанд И.М., Губерман Ш.А., Сыркин А.Л., Головня Л.Д., Извекова М.Л., Алексеевская М.А. Прогнозирование исхода инфаркта миокарда с помощью программы «Кора-3» // Кардиология. – 1977. – Т.17, № 6. – С.19-23.
10. Гельфанд И.М., Розенфельд Б.И., Шифрин М.А. Очерки о совместной работе математиков и врачей (2-е, дополненное издание). - М. УРСС, 2004. – 320 с.
11. Фишер Р.Э. Использование множественных измерений в задачах таксономии // Современные проблемы кибернетики. - М.: Знание, 1979. С. 6 - 20. (Fisher R.A. The use of multiple measurements in taxonomic problems. - Ann. Eugenics, 1936, September, v.7, 179 - 188.)
12. Андерсон Т. Введение в многомерный статистический анализ. – М.: ГИФМЛ, 1963. – 500 с.
13. Орлов А.И. Некоторые вероятностные вопросы теории классификации // Прикладная статистика. Ученые записки по статистике, т.45. - М.: Наука, 1983. - С.166-179.
14. Большев Л.Н. Избранные труды. Теория вероятностей и математическая статистика. – М.: Наука, 1987. – 286 с.
15. Круопис Ю. О проверке многих простых гипотез // Тезисы докладов Второй Вильнюсской международной конференции по теории вероятностей и математической статистике: Том 1. – Вильнюс, 1977. – С.207-209.
16. Фомин А.С. Векторный критерий качества распознавания // Автоматика и телемеханика. – 1978. №3. – С.131-136.
17. Алимов Ю.И. Альтернатива методу математической статистики. – М.: Знание, 1980. – 62 с.
18. Боровков А.А. Математическая статистика. – М.: Лань, 2010. – 704 с.

Prognostic strength as an quality indicator of diagnostic algorithm 

A.I. Orlov 

Bauman Moscow State Technical University, Institute of high statistical technologies and econometrics, Russia, Moscow;
prof-orlov@mail.ru; http://orlovs.pp.ru; +7(495) 6994282; 123104, Moscow, the Sytinsky lane, house 7/14, apartment 14.

The summary. Inexpediency of use of probability of correct diagnostics as an quality indicator of diagnostic algorithm is shown. The new indicator - the prognostic strength based on Mahalanobis distance between classes is offered and studied. It is found asymptotic distribution the prognostic strength, the way of testing of adequacy of its application is specified. In a problem of testing of two simple hypotheses the prognostic strength connection is established with Hellinger distance.

Keywords: diagnostic algorithm, a quality indicator, probability of correct diagnostics, Mahalanobis distance, prognostic strength, limiting theorems, testing of hypotheses, Hellinger distance.